层层深入与链式共进：2022年中国网络内容治理报告

本报告延续“2021年网络内容治理报告”的思路，对2022年该领域的三个主要板块的八类典型议题进行分析。研究发现，网络内容的治理结构呈现出安全意识、治理主线与三方力量的结合，治理已深入到数据与技术层，并触及经济问题与网络安全，具有渗透性与灵活性。一条包含数据要素、网络内容、平台监管、经济秩序、意识形态在内的治理链条正在形成。随着网络内容治理涵盖的范围与深度不断拓展，新问题与新现象不断涌现，未来或将面临更多挑战。 

在《2021年网络内容治理报告》中，我们一方面对网络内容治理的结构与范畴进行了划分，将考察范围扩展为“涉及代码层或技术层意义上的网络内容治理”，指出其具有“鲜明的综合性与延伸性”特点；另一方面，在对八类具有代表性的问题进行分析的基础上，认为“我国的网络内容治理进入超级治理阶段，国家主体的决策行动能力起到关键作用，公众和社会配合治理实践，网络内容治理的颗粒度逐渐细化”（年度网络内容治理研究课题组，2022）。2022年度的网络内容治理报告，在继续推进上年报告的研究思路与分析视角的同时，尝试对本年度出现的新事物、新现象、新特征等进行观察分析。

2022年网络内容治理可以分为三个主要板块：法律法规、行动实践与行业自律。在这一年中，与网络内容治理息息相关的法律法规、政策文件密集修订、出台和施行，涉及网络安全、数据治理、平台治理、技术应用等多个方面，共同推动网络信息内容、视听内容、相关主体的法制化治理提升；以“清朗”、“剑网2022”等为代表的专项行动，延续了之前在固定时间、针对特定群体、服务管理需求、瞄准重大问题的经验和方式，持续对网络空间进行“深耕轮作”；而在网络内容行业领域，随着网络治理结构的变革，掌握更多技术和资源优势的平台企业、行业组织也成为补充政府规制不足的重要力量，一系列自律公约和团体标准相继出台。

2022年我国网络内容的治理结构呈现出安全意识、治理主线与三方力量的结合：

第一，网络空间的意识形态安全依然是构建网络内容治理体系的基点。

网络内容安全是国家总体安全观的重要方面。2022年网络内容治理所呈现的问题，紧密围绕健全国家安全体系、增强维护国家安全能力、提高公共安全治理水平、完善社会治理体系的建设方向推进。

第二，数据要素与分治路径作为主线体现出治理的穿透性与灵活性。

2022年我国《数据安全法》、《个人信息保护法》实施满一周年，12月19日《中共中央、国务院关于构建数据基础制度 更好发挥数据要素作用的意见》提出20条政策措施以“促进数据合规高效流动使用，赋能实体经济”，数据在社会经济发展中的重要性得到进一步提升。由于网络内容与数据要素的关系密切，因此我国数据治理方面的机制完善也深度影响到网络内容治理。同时，2022年对于网络内容实体的治理更加细化和精准，尤其表现为将各类信息内容、新技术应用等“分而治之”，在各个领域分别出台专门的政策规定或意见要求；进一步明确相关平台和主体义务责任，对于网络信息内容生态中出现的新问题新对象，迅速反应，灵活调控政策。

第三，政府机构、平台与行业是汇聚在网络内容治理领域的三方重要力量。

政府机构通过依法立规、多部门协同、开展专项行动等方式，将治理的层次和力度层层推进压实。2022年，全国网信系统全年累计依法约谈网站平台8608家，警告6767家，罚款处罚512家，暂停功能或更新621家，下架移动应用程序420款，会同电信主管部门取消违法网站许可或备案、关闭违法网站25233家，移送相关案件线索11229件（新华网，2023年1月27日）。

2022年修订和出台的多项政策法规，以平台为落脚点，强调其主体责任与义务，平台对整体治理体系的正常推进与效果实现具有重要支撑作用。随着平台企业在经济社会中的角色转型，在匹配多边市场和重新进行资源分配的同时，其“守门员”价值和调节网络生态的作用也逐渐凸显并得以明确。微博、抖音、百度、腾讯、快手、今日头条、小红书、哔哩哔哩、360、知乎、豆瓣、UC浏览器等网站平台，依据中国互联网联合辟谣平台关于疫情防控、公共政策、社会热点、涉外话题、自然灾害、医药健康、食品安全等领域的辟谣标签，对25万余条谣言进行了标记（新华网，2023年1月28日；中国互联网联合辟谣平台，2023年1月30日）。

而行业自律则是通过政府与非政府机构、公共与私人机构，乃至机构与个人的形式达成全体参与行动者的“共律”。相关自律公约和团体标准自下而上地充实了政府治理体系，为探索更加有机的协同共治模式提供参考。

本报告通过三大板块具体阐释八个议题：第一个板块“数据治理视角下的网络内容”主要涉及反对网络内容平台滥用市场支配地位的垄断行为、跨境数据流动中的国家安全与社会安全、个人信息保护在大数据治理中的处理规范三个议题；第二个板块“内容治理实践中的分治路径”主要从对多种内容形式的联动治理、对多样网络主体的行为规范、对新型网络暴力的社会治理，以及通过管理深度合成技术迎接人工智能内容生成的挑战四个主题展开；第三个板块是“网络内容行业的社会责任担当”，即倡导行业协会践行社会责任以协同国家治理。

一、数据治理视角下的网络内容

（一）平台反垄断：对“知网”滥用市场支配地位的调查处罚

2022年4月，“中科院因近千万的续订费用不堪重负 停用中国知网数据库”的消息引发热议，据报道，知网除“高额收费”，还涉及学位论文著作权纠纷、廉价版权等问题。2022年5月，国家市场监管总局对知网涉嫌垄断立案调查，认定知网在中国境内中文学术文献网络数据库服务市场具有支配地位并滥用该支配地位实施垄断行为。12月26日，市场监管总局依法责令知网停止违法行为，并处以8760万元的罚款。

知网是我国最知名、用户最多的中文学术数据库提供商，主要面向高校、科研院所、公共图书馆等提供服务。2021年2月7日，国务院反垄断委员会印发的《关于平台经济领域的反垄断指南》（以下简称《反垄断指南》）中，将平台经济中的“平台”定义为“通过网络信息技术，使相互依赖的双边或者多边主体在特定载体提供的规则下交互，以此共同创造价值的商业组织形态”。学术数据库产业具备平台经济的特征，知网所处的中文学术文献网络数据库服务市场属于典型的多边市场，这一市场的显著特征是具有跨边网络效应，各边用户对中文学术文献网络数据库服务的需求紧密关联。

《反垄断法》当然同样适用于网络空间的经济活动。2022年8月1日生效的新修《反垄断法》，规定经营者不得利用数据和算法、技术、资本优势以及平台规则等，从事垄断行为，滥用市场支配地位，制造障碍，排除或限制竞争。根据此次市场监管总局的调查，自2014—2021年以来，知网在中国境内中文学术文献网络数据库服务市场占有率均超过50%，在相关市场中长期保持较强竞争优势，具有较强的市场控制能力、财力和技术条件，用户对其依赖度高。而同时，知网通过连续大幅度提价、拆分数据库变相涨价等方式，实施不公平销售行为；通过签订独家合作协议等方式，限定出版单位、高校的学术文献数据授权，并采取多种奖惩措施保障与其独家合作。

学术数据库提供的服务以知识产品为核心，具有公共性和开放性，学术数据库商的经营活动涉及知识传播的公益与投资营利的私益之间的平衡（郭壬癸，林秀芹，2022）。知网的行为损害了用户的合法利益，阻碍了中文学术文献网络数据库服务市场的进步与创新，影响学术成果的传播交流，破坏良好的科研生态环境，构成了《反垄断法》禁止的“以不公平的高价销售商品”和“没有正当理由，限定交易相对人只能与其进行交易”的滥用市场支配地位行为（国家市场监督管理总局，2022年12月26日）。

自2020年以来，执法机构对于数字经济领域的监管态度，已从此前的“包容审慎监管”（国家市场监督管理总局反垄断局，2020）转为“强化反垄断和防止资本无序扩张”（国务院，2021年3月25日）。根据2022年6月8日国家市场监管总局发布的《中国反垄断执法年度报告（2021）》，2021年全年查处的各类垄断案件共计175件，其中互联网行业占比高达74%，罚没金额占比则达92%。新《反垄断法》强化了对网络内容产业经济活动的法律规制，目的在于通过引导平台经营者依法合规经营，促进我国平台经济规范有序创新健康发展。

（二）“网络安全审查第一案”：跨境数据流动与国家社会安全

2022年7月21日，国家互联网信息办公室依据《网络安全法》、《数据安全法》、《个人信息保护法》、《行政处罚法》等法律法规，对滴滴全球股份有限公司作出网络安全审查相关行政处罚的决定，“从严从重”处以人民币80.26亿元的罚款，对公司董事长兼CEO程维、总裁柳青各处人民币100万元罚款。此次网络安全的审查发现，滴滴公司共存在8个方面16项违法事实，并涉及国家安全风险。

2022年《个人信息保护法》实施满一周年，新修订的《网络安全审查办法》开始施行，与数据安全、数据保护相关的法规政策不断完善，并在司法与执法行动中逐步实施。作为国内“网络安全审查第一案”，对滴滴公司的数据出境安全审查具有重要的示范意义。审查结果显示，滴滴公司对个人信息的搜集和处理主要存在违法收集和过度收集两大问题。自2015年6月以来，滴滴公司违法收集用户剪贴板信息、相册中的截图信息、亲情关系信息等个人信息，严重侵犯用户隐私和个人信息权益；违法处理个人信息达647.09亿条，数量巨大，其中包括人脸识别信息、精准位置信息、身份证号等多类敏感个人信息；旗下多个APP涉及对用户数据的过度搜集、强制搜集、频繁索权、未尽告知义务、未尽保护义务等问题。

网络社会中，关键信息基础设施运营者、网络平台运营者掌握着大量的核心数据、重要数据和个人信息，如果这些网络信息和内容被非法利用和出境，或被恶意影响和控制，不仅会造成当前即刻的信息泄露、隐私侵害，还会在中长期产生深远影响，尤其是当这些信息与其他数据、内容、技术结合进行关联挖掘，会带来大量潜在的不可控安全风险。

平台社会的崛起和发展依靠数据的健康使用与有序流动，数据要素作为生产资料，发展与安全是一体两面的。对此，2022年1月19日，国家发改委等九部门出台《关于推动平台经济规范健康持续发展的若干意见》，要求完善跨境数据流动“分级分类+负面清单”监管制度。6月22日，中央全面深化改革委员会第二十六次会议审议通过了《关于构建数据基础制度更好发挥数据要素作用的意见》。12月19日《中共中央、国务院关于构建数据基础制度更好发挥数据要素作用的意见》中强调，要“统筹发展和安全，贯彻总体国家安全观，强化数据安全保障体系建设，把安全贯穿数据供给、流通、使用全过程，划定监管底线和红线”。

数据需要流动才能创造价值，数据要素的流动不仅会在本国境内进行，还会涉及跨国流动。而“数据跨境活动既影响个人信息权益，又关系国家安全和社会公共利益”（中国网信网，2022年7月21日）。鉴于此，数据要素的流动必须规范化。《个人信息保护法》第38条规定了“通过国家网信部门组织的安全评估”、“个人信息保护认证”、“按照国家网信部门制定的标准合同与境外接收方订立合同”三种个人信息跨境合规的机制。但这三种机制的侧重点和适用范围有所不同，其中，“安全评估”在保护个人信息权益的同时，还旨在“维护国家安全和社会公共利益”，具有一定的强制性，凡是达到安全评估规定门槛要求的必须在数据出境前进行安全评估。可以预见，未来在涉及数据跨境流动的场景中，网络安全审查将会成为平台企业需要重点考虑的问题。

（三）通信行程卡依法下线：“码上治理”中的个人信息保护

2022年12月7日，国务院联防联控机制发布《关于进一步优化落实新冠肺炎疫情防控措施的通知》（以下简称《优化防疫措施通知》），提出除特殊场所外，不要求提供核酸检测阴性证明，不查验健康码。不再对跨地区流动人员查验核酸检测阴性证明和健康码，不再开展落地检。《优化防疫措施通知》的提出，意味“通信行程卡”在上线34个月（1034天）后，退出人们的日常生活。2022年12月12日，中国信通院及三家电信营运企业分别发布公告，自12月13日0时起通信行程卡服务将正式下线，短信、网页、微信小程序、支付宝小程序、APP等查询渠道也将同步下线。根据有关通知，健康码的应用场景也被限定于特定场合。

过去三年中，新冠疫情给国家和人民生产生活带来了极大风险和不便。2020年2月13日，“通信行程卡”在国务院客户端微信小程序上线，向手机用户提供本人行程查询服务。2021年3月30日，国家政务服务平台“防疫健康码”整合了“通信大数据行程卡”相关信息，健康码可显示用户是否去过中高风险地区等行程信息。2021年9月15日，健康码与行程卡在全国实现一页通行式的“二码合一”。根据工信部公布的数据显示，截至2022年6月14日，通信行程卡累计提供查询服务近600亿次。

行程卡和健康码依托主流平台应用程序，实现了线上采集信息授码、线下核验信息扫码两个主要功能。行程卡和健康码对用户的健康状况、体温、重点地区出行记录等个人信息进行收集、存储、使用、加工等，构建起用户信息和疫情防控的大数据库，通过后台制定分析规则、数据比对等方式，识别出高危人群，有效管控人员流动。“两码”是我国利用数字化技术进行疫情防控和社会治理的一次重要实践与创新，也是我国数字治理能力的体现（张新宝，2022）。

行程卡和健康码自投入使用以来，应用场景广泛，其搜集的，除一般个人信息还有大量敏感个人信息，如行踪轨迹、健康信息、疫苗注射情况+等。个人信息同个人权益之间关系紧密，随着疫情防控措施的不断优化调整，如何处理这些个人信息数据，也成为落实《个人信息保护法》、保护个人合法权益的应有实践。

在《优化防疫措施通知》公布实施后，原则上通过“两码”收集、存储、运行的个人信息，应当主动删除、全部销毁。需要定向提供的个人信息数据，脱敏匿名化处理要达到相关要求。脱敏是指对个人信息进行技术处理，去除其中的可识别信息且不能复原，使其无法直接指向特定自然人。相关部门接收的个人信息，符合脱敏匿名化要求的，可以对此进行自主利用，尚未达到匿名化处理程度的，应当予以销毁。

对健康码内留存数据的处理和使用尚需审慎规范。作为《突发事件应对法》下应急时期的应急措施，健康码以消除非常状态、恢复正常状态为目的，当应急状态结束后，健康码也理应下线。但与行程卡相比，健康码的情况更加复杂。相关研究认为，健康码的使用场景更广泛，处理的个人信息种类更庞杂，很多属于敏感个人信息范畴，一旦被泄露或滥用，会直接影响公众的切身利益，也会对社会公共利益，甚至国家安全产生影响，导致社会治理成本增加，政府公信力受损。但健康码由各地独立运营，数据的存储和处理都比较分散，后续运营成本高，保障难度大。一些地方政府希望将健康码与本地医疗社保、公共交通、政务服务等日常使用相关联，这种做法是否合适，后续还需谨慎考虑，慎重出台相应政策文件。

行程卡和健康码之后，社会治理还会不会出台各种“码”？根据《个人信息保护法》规定，国家机关为公共利益需要实施类似“两码”的措施必须有法律、行政法规的规定。地方行政机关当然更不得通过类似“两码”的手段处理公民的个人信息和限制公民的自由。2022年6月中旬，河南郑州村镇银行的1000多名储户被赋红码，后经官方通报系地方行政人员违反健康码管理办法，滥用职权侵犯公民合法权益。而之后7月7日又有多名储户健康码变红。虽然前后两次原因不同，但乱赋红码的现象严重损害了政府的公信力。“两码”收集的个人信息数量多、范围广，且包含大量的敏感个人信息，但是用户个人基本上难以发现信息是否从根本上被删除。行程卡等应用退出后，需要由监管部门核查、社会舆论监督，保证信息的处理者真正履行了删除义务，切实保障用户的个人信息权益。

二、内容治理实践中的分治路径

（一）“直、短、流、长”：对新内容形式的联动治理

2022年，我国互联网新业态、新模式、新文化蓬勃发展，大量新型内容形式、文化产品不断涌现，对互联网治理提出了新要求。例如，疫情期间，许多演唱会、音乐会、戏剧、舞台演出等营业性演出开始转型，通过互联网直播或录播以网络演出剧（节）目的形式举行，“直播、短视频、流媒体、长视频”成为视频内容新样式的“四大金刚”，由此也催生了2022年9月文化和旅游部提出《关于规范网络演出剧（节）目经营活动 推动行业健康有序发展的通知（征求意见稿）》，拟补充原《营业性演出管理条例》的相关管理细则。

短视频作为一种移动视觉场景下的新媒介形态和内容形式，2022年持续引领互联网发展势头，稳居增长量榜首。截至2022年6月，我国网络短视频用户规模已达到9.62亿，较2021年12月增长2805万，占网民整体的91.5%（中国互联网络信息中心，2022年9月14日）。2022年4月，为期两个月的“清朗·整治网络直播、短视频领域乱象”专项行动再次启动，重点整治“色、丑、怪、假、俗、赌”等违法违规内容，以及功能失范、“网红乱象”、打赏失度、违规营利、恶意营销等突出问题。短视频的治理在系列专项行动下逐渐规范化、体系化。

网络内容形式的重要性经常容易被忽视。塔克曼在“新闻作为一种社会现实”的论述中曾指出，新闻的叙事形式、方法、风格都作为一种“潜在结构”影响新闻的知识生产和社会建构，例如，电视时期的新闻叙事在凸显某些问题的同时，也会遮蔽一些问题，这恰恰是因为，新闻叙事的风格和形式以视觉化的方式呈现了支配新闻工作安排的主题（塔克曼，1978/2022：143）。短视频的崛起，被喻为“一场自下而上的新文化运动”，它的一个重要特征在于，其流行源于民间，是从民间文化中脱颖而出走向公共传播的一种内容形式，拥有与传统视频内容截然不同的文化底色与文化基因——即以“生活化”为文化底色，“以人为本”为文化基因（彭兰，2019）。正是民间文化特征和“生活化”底色，给短视频的“创新扩散”、文化活力、社会生产力培育带来契机，同时，也给短视频的媒介生态环境埋下了不少隐患，使短视频进入公共传播领域后就陷入争议的漩涡。

短视频让全民成为创意劳动者，通过创意劳动获得收入和精神福祉，为培育创新的社会生态助力（何威，曹书乐，丁妮，冯应谦，2020），但同时，也带来内容泛娱乐化、低俗化问题，扩大了平台和资本对人们“数字劳动”的剥削与异化（Fuchs，2012）；短视频降低了新闻的准入门槛，增加了低教育群体、老年群体、农村群体的新闻接触机会，为弥合数字鸿沟提供了可能路径，但也带来新闻娱乐化、假新闻泛滥、信息茧房、资本舆论操纵等诸多威胁；短视频给数字产业、数字经济注入了新的生产力的同时，也导致“网红乱象”、违规营业、偷税漏税等市场失范现象。

在对短视频的治理中，政府、平台、公众等正在逐渐形成联动治理机制，各方治理理念和治理责任逐步达成共识，标志着短视频治理的基本规范初步形成。各大短视频平台建立人工审核、机器过滤、举报受理、社区自律委员会、原创视频维权系统、反沉迷系统、青少年模式等自律机制，参与主流价值观引导和正能量宣传，承担平台责任；MCN机构开始进行内容审核、虚假宣传审核，对流量主义和打赏行为进行干预；公众也在参与监督、提高素养上取得实际收益。但短视频作为各类数字和文化产品的集中地，以及年轻人休闲娱乐和新闻获取的替代方式，需要对层出不穷、快速滋生的新问题保持敏锐和警惕，深化对短视频流行背后的一系列政治效应、社会效应的探索研究，以真正理解和优化互联网新兴内容生态的治理路径。

（二）规范网络主播：分类监管全面覆盖

2022年“双减政策”影响下新东方转型网络直播带货，异军突起；9月20日，李佳琦低调返回直播间，重启中断了109天的带货直播。近年来网络直播成为热门应用，截至2022年6月，我国网络直播用户达7.16亿，占网民整体规模的68.1%（中国互联网络信息中心，2022年9月14日）。随着网络直播产业的兴起和发展，“网络主播”俨然已成为一个新职业。由于该行业的迅猛发展，经纪公司和作为平台与主播中介的直播公会开始参与培养打造网络主播，主播的业务范围由才艺表演、互动聊天开始向赛事直播、游戏晚会直播、直播带货等多方面拓展。尤其是直播带货，电商平台、版权方、技术公司、品牌方、观众用户等纷纷加入，多样社会主体的参与生成更多的社会关系，直播产业链不断扩展，在多个环节创造收益和价值。2022年新修订的“职业分类大典”中，在“批发与零售服务人员”的类别里，正式出现了如互联网营销师、直播销售员这样的职业分类。

直播带货与互联网经济、粉丝经济、网红经济关系密切，过去三年里，直播带货扩大了在线消费的增长，帮助企业降本提效，推动受新冠疫情影响下的经济复苏。但一段时间以来，少数主播偷税漏税，知名主播被点名整改，直播带货中存在虚假宣传、言行失范、价格欺诈、数据造假等问题，引发网络主播的责任与义务问题的讨论。同时，平台主体责任的履行不到位，也阻碍直播市场的长远发展。

2022年6月22日，国家广播电视总局、文化和旅游部联合发布《网络主播行为规范》，旨在进一步加强网络主播职业道德建设，规范从业行为，强化社会责任，树立良好形象。《网络主播行为规范》明确了网络主播在提供网络表演及视听节目服务过程中不得出现的31种行为，要求加强对网络表演、网络视听平台和经纪机构以及网络主播的监督管理，切实压紧压实主管主办责任和主体责任，发现网络主播违规行为，要及时责成相关平台予以处理。

《网络主播行为规范》进一步细化了2021年国家网信办等七部门联合发布实施的《网络直播营销管理办法（试行）》，对直播营销环境下的不同参与主体予以划分，要求直播营销平台建立“事前预防、事中监控提示、事后惩戒”的管理机制。由于在直播营销活动中，主播与观众的互动频繁，主播输出的内容丰富多样，观众亦可以通过发布弹幕、评论等方式参与互动，故对发表的内容进行规范管理具有必要性。对于直播营销平台来说，“事前预防”要求平台方对直播间建立分级管理制度，对重点直播间安排专人实时巡查、延长直播内容保存时间等；建立风险识别模型，依法开展安全评估；建立未成年人保护机制等。“事中监控与提示”要求平台对直播营销人员真实身份采取动态核验机制；对高风险营销行为采取弹窗提示、违规警示、限制流量、暂停直播等措施；对直播间内链接、二维码加强信息安全管理。“事后惩戒”要求平台方对违法违规行为采取阻断直播、关闭账号、列入黑名单、联合惩戒等处置措施。

由于网络主播具有开放性，职业门槛低，“人人都能当主播”，因此需要对从事网络直播的主体身份与资质水平进行与时俱进的界定。在中国广告协会2020年制定的《网络直播营销行为规范》中，主播是指“在网络直播营销活动中与用户直接互动交流的人员”。2021年5月25日施行的《网络直播营销管理办法（试行）》中，规定直播营销人员或者直播间运营者为自然人的，应年满16周岁。中央文明办等四部门联合发布的《关于规范网络直播打赏 加强未成年人保护的意见》中，明确禁止未成年人参与直播打赏，网站平台不得为未满16周岁的未成年人提供网络主播服务。2022年6月22日，在国家广播电视总局、文化和旅游部联合发布《网络主播行为规范》中，一是强调对需要较高专业水平（如医疗卫生、财经金融、法律、教育）的直播内容，主播应取得相应执业资质，并向直播平台进行执业资质报备，直播平台应对主播进行资质审核及备案；二是对网络主播的界定覆盖了“利用人工智能技术合成的虚拟主播及内容”。10月31日，市场监管总局、中央网信办等七部门联合印发的《关于进一步规范明星广告代言活动的指导意见》中，指出“明星为推荐、证明商品，在参加娱乐节目、访谈节目、网络直播过程中对商品进行介绍，构成广告代言行为”，对于明星代言的广告发布，要依法加强直播管理，严禁违法失德明星通过参加访谈、综艺节目、直播等方式变相开展广告代言活动。这也体现出当下对于互联网行业监管的基本思路，呈现“全面覆盖，分类监管”的取向，即将“台前幕后”的各类主体、“线上线下”各项要素均纳入监管范围。

（三）新型网络暴力：对“网课爆破”的全链条治理

受新冠疫情影响，疫情期间学生在家“上网课”成为一种教学常态。无论是教师还是学生，从传统的课堂教学转为在线上课，都是对其在熟悉环境中的稳定感的挑战（Zhang，2020）。这种挑战既包括对硬件设备和软件应用，也包括如课程任务完成情况，课堂秩序维持程度等。网速太慢、忘记关麦、在线僵尸这些“细枝末节”都会影响网课教学的质量和效果。而除了课程内部的挑战，一种新型的网络暴力“网络爆破”也开始从外部侵扰网课秩序。2022年11月，河南省新郑市第三中学的一名历史教师在家中上网课时遭受“网课爆破”后意外去世，虽无证据表明老师去世与网课“爆破手”有直接关系，但悲剧发生后，许多类似的“网课爆破”事件也浮出水面，成为人们关注的热点。

侵扰网课的捣乱行为被称为“网课爆破”或“网课入侵”，先是由网课的参与者泄露课程会议号和密码，随后捣乱者有组织地“入侵”在线课堂，通过强行霸屏、骚扰信息刷屏，甚至是辱骂师生、播放不雅视频等极端方式，恶意扰乱教学秩序（人民日报，2022年11月8日）。网课一般会使用云会议软件，通过音视频同步技术进行远程会议、在线协作、会管会控等，但这一专有在线空间中的交往规范，目前还未能引起足够的重视。一般情况下，云会议软件中都有对会场秩序的管控设置，但这样的操作并非人人熟悉，而一些软件漏洞或人为原因则会使网络暴力、隐私侵犯等行为有机可乘。

网络暴力是一种在网上具有伤害性、侮辱性和煽动性的行为现象，以往一般分为四大类别：一是对事实的捏造，二是对个人的辱骂，三是标题党，四是人肉搜索。网络暴力是社会暴力在网络上的延伸，往往伴随侵权行为和违法犯罪行为。而网课爆破是一种新型网络暴力。根据相关报道，在线下，网课爆破已逐渐成为一条黑灰产业链。一些扰乱课堂秩序的“爆破手”会在社交平台发小广告，通过组建社交群组接单，只需提供网课会议号，“3元就能爆破”，“760元就推动一次网暴”（中国新闻网，2022年11月14日）。据相关法律人士的分析，网课爆破行为显然违反有关维护网络空间秩序、信息安全、保护公民人格权益等方面的规定（中国青年报，2022年11月11日）。

对此，2022年9月，深圳网警发声并转发了腾讯会议的《共同关注！在线课堂“防破”指南》。目前多个云会议平台都已更新和升级软件，提供会前、会中、会后对网课入侵者的预防和制止性措施，保障在线课堂安全性和老师的教学需要。由于网络暴力违法成本低，而维权成本高，因此对其治理还需要政府和社会共同推进。

2022年进入大众视野的网络暴力事件频出，特别是刘学州寻亲被网暴案、上海打赏骑手200元女子遭遇网暴，也包括河南女教师遭受“网课爆破”等，当事人甚至付出了生命的代价（传媒伦理课题组，2023）。网络传播的匿名化、情绪化与碎片化助推了网络暴力事件的频繁发生。4月24日，中央网信办宣布开展“清朗·网络暴力专项治理行动”，要求新浪微博、抖音、百度贴吧、知乎等18家网络暴力易发多发、社会影响力大的平台，通过建立完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施，实施网暴全链条治理。11月4日，中央网信办印发《关于切实加强网络暴力治理的通知》，要求网站平台建立健全网暴预警预防机制，强化对网暴当事人保护，严防网暴信息传播扩散，并对网暴相关账号、恶意营销炒作、平台失职失责行为等进行严惩。

在网络暴力的治理中，网站平台既需要保护网民的合法权益，也依法承担着管控不良信息、遏制网络推手等职责。刘学州事件发生后，新浪微博社区管理官方账号@微博管理员对刘学州微博账号的私信情况进行了通报，主动公开后台数据，提供网暴的“电子证据”。网暴专项治理过程中，微博、抖音、B站陆续上线了“一键防护”、“一键防暴”、“一键取证”等新功能；快手、百度贴吧、知乎、小红书等平台均可以自主设置私信、评论权限。必要时用户可以自行关闭私信、评论等，尽量避免网暴伤害。2022年8月23日，中央网信办通报了此次专项整治的情况，重点网站平台累计拦截涉攻击谩骂、造谣诋毁等信息6541万余条，处置违法违规的账号7.8万个。

另一方面，网课爆破案也使得“社会—情感素养”问题浮出水面。根据媒体的采访，很多爆破手表示他们没有什么意图，就是太闷了想发泄一下。随便玩一玩。因此对于这一问题的治理，还需要配合对全社会中数字素养、网络礼仪的倡导。2022年3月2日，中央网信办等四部门联合印发《2022年提升全民数字素养与技能工作要点》，其中就包括数字社会法治道德水平的提高。未来随着公民生活、学习、工作的数字化程度越来越高，数字时代的个体也面临媒体参与赋权后产生的情感交往危机和群体行为失范。“社会—情感素养”是在数字媒介构成的虚拟环境下人与人之间的情感交流能力，被认为是所有数字技能中最高级、最复杂的素养。未来的网络素养培养需要突破传统的工具使用范式，走向更为全面的数字和新媒介生存体验（石晋阳，陈刚，2016）。

（四）管理深度合成：迎接人工智能内容生成的挑战

2022年，人工智能内容生成（Artificial Intelligence Generated Content， AIGC）成为数字内容领域的新热点。绘图工具Midjourney完成的画作获得艺术大奖，聊天机器人模型ChatGPT以其强大的信息整合和对话能力风靡全球，虚拟数字人代替真人主播亮相冬奥会报道……AI写作、AI作画、对话机器人、数字人等AIGC应用成为爆款的同时，也引发对新闻真实性、知识产权、伦理规范、信息安全等方面争议。例如，2022年8月，重庆发生大面积森林火灾成为新闻热点，社交媒体上随后出现了由AI合成的一系列壮观的消防员与山火图片，并未说明来源。这些图片之后被一些自媒体当做现场画面进行报道，还有不少官方机构转发。对此，有网友指出，“10张有8张是AI作画，下面评论却一片感动哭了”。此外，央视新闻微博选用其中一张AI作品做了一张宣传海报，尽管其在海报右上角标注了“非新闻图片”，但图片下方有类似于实景照片的说明“面前是漫天山火，身后是万家灯火”，让人真假难分。可见，随着深度合成技术的日益成熟，越来越聪明的AIGC对人工智能时代的新闻传播带来了治理难题。

AIGC重塑甚至颠覆了数字内容的生产方式和消费方式，也让人们进入了一个“有图无真相”的传播时代。近年来，随着底层技术成熟、大量资本入局、海量数据加持，以深度合成技术为代表的AIGC快速突破，深刻影响了传媒、游戏、艺术、娱乐、电商、医疗等领域。但深度合成内容火爆的同时，也带来了可能消解与重构社会文化价值观念的问题（喻国明，梁爽，2021）。一方面，深度合成内容与真实新闻信息的“混合传播”模式，会对新闻的真实性带来严峻挑战，造成“假作真时真亦假”的混乱局面，特别是在灾难报道中容易煽动公众情绪，冲击新闻伦理规范；另一方面，由于数据缺陷、算法黑箱、算力受限等原因，深度合成技术的内生安全问题同样令人堪忧，深度合成技术可能出现算法偏见、形成错误新闻信息，误导受众。此外，这一技术还可能被不法分子用于制作违法信息，侵犯个人隐私，实施诈骗等。

对此，2022年11月25日，国家网信办等三部门联合发布《互联网信息服务深度合成管理规定》（以下简称《深度合成管理规定》），强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任。该文件也是国内首个对深度合成技术进行系统规制的部门规章。近年来，我国先后出台《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》、《互联网信息服务算法推荐管理规定》等，对生成合成类算法和利用深度学习、虚拟现实等新技术新应用制作音视频内容提出了监管要求。

2022年新出台的《深度合成管理规定》，对涉及深度合成全产业链的各个主体责任进行了规范，建立了“事前预防”与“事后应对”相结合的全流程治理路径。延续互联网信息服务算法治理思路，要求具有舆论属性或者社会动员能力的深度合成服务提供者开展安全评估，履行算法备案和变更、注销备案手续。该规定还提出了深度合成信息内容标识管理制度，对文本、语音、人物图像和视频、沉浸式拟真场景等五类可能导致公众混淆或者误认的深度合成服务进行显著标识。

但值得注意的是，针对深度合成涉及的新闻伦理等争议问题，《深度合成管理规定》仅指出深度合成服务提供者的科技伦理审查、信息发布审核等责任，其他相关责任要求则较为模糊。因此如何破除对AIGC的“技术恐慌”、完善网络内容生态，还需要多元主体共同推进，技术伦理与行业规范、法律监管、个人素养的同步发展。

三、网络内容行业的社会责任担当

我国互联网行业自律行动在各领域广泛推进，典型行动包括：2021年11月，中国网络社会组织联合会联合105家单位和企业共同发布了《互联网信息服务算法应用自律公约》，引导平台和企业积极参与算法综合治理。2021年12月30日，中国网络社会组织联合会发布《互联网行业从业人员职业道德准则》，倡导互联网行业从业人员职业道德和行为规范。小红书、微博、哔哩哔哩、快手、无忧传媒等网络直播平台和MCN机构响应《关爱成长 呵护未来 网络表演（直播）行业保护未成年人行动倡议书》，陆续发布公告和组织行动，表明承担保护未成年人的主体责任；2022年5月26日，中国版权协会文字工作委员会联合20家省级网络作协和522名网络作家联名发布了《保护网络文学版权联合倡议书》，对抗网络文学盗版侵权等问题；7月12日，“中国网络视听节目服务协会网络视听职业道德建设委员会”正式成立，为规范网络视听行业生态发挥“指挥棒”和“平衡器”功能；7月29日，在中国网络社会组织联合会的组织下，中国经济信息社联合中国网络视听协会、抖音、哔哩哔哩等14家单位共同编制发布了《网络直播主体信用评价指标体系》团体标准，适用于网络直播平台和行业组织、第三方机构对网络主播、直播间运营者的信用评价和分级监管；8月，广州市游戏行业协会组织网易、三七互娱等42家企业共同签署《个人信息超范围采集整治治理游戏行业公约》，成为国内游戏行业健全网络个人信息保护机制的一次集体行动；11月，中国科协、中国银行、中国联通于11月联合印发了“银龄跨越数字鸿沟”科普专项行动的方案，满足老年人对信息素养、数字技能等方面的需求。

行业自律是国家推动社会各类法人或非法人组织以及独立从业主体的自律性行为间接达成规制目的的手段，用以协助国家完成公共任务。相较于政府规制，行业自律的优势在于能够更及时、更有弹性、更合乎事物本质地采取行动或反应，容易建立与产业之间的信赖与合作关系，也更容易创造出更有力的规制手段（高秦伟，2015）。根据政府介入的程度和方式，学者Julia Black（1996）将行业自律区分为委托型自律（由政府依法要求或指派的行业自律）、批准型自律（经政府批准后自行设计的行业自律）、被迫型自律（政府立法计划倒逼形成的行业自律）和自愿型自律（无政府参与的行业自律）四种类型。但行业自律常常出现一些不足之处，比如过分关注商业利益，可能在自律过程中出现隐藏的行业垄断行为，还有一些自律措施不当导致用户权益处境更加脆弱。为了克服这些不足，行业自律也发展出公共责任、透明性、有效性、效率以及合法性等目标要素，同时更需要政府介入引导、监管或再规制，形成“受国家规制的行业自律”、“合作规制”等多元模式（高秦伟，2015；匡文波，杨春华，2016），行业自律与政府规制的关系更加复杂密切。

我国网络内容治理的行业自律表现出两点典型特征：一是与各国的情况类似，相关行业自律行动多以“受国家规制的行业自律”为主，公私合作愈发深入。如《网络直播主体信用评价指标体系》团体标准的编撰和发布，即是在中央网信办、国家发展改革委、市场监管总局、中国消费者协会等相关部门指导和中国网络社会组织联合会的组织下合作完成；《互联网信息服务算法应用自律公约》是为落实国家网信办等部委《关于加强互联网信息服务算法综合治理的指导意见》，在相关部门指导下提出，同时接受主管部门监管。这些规则的制定和实施需要充分利用行业的专业知识来构架、填充和运作，委托行业组织和平台企业开展，大大节省了政府规制成本。但运行过程中，政府仍需保持对行业自律进行有距离的间接规制，监督和保障行业自律过程的科学性、透明性和可评价性，并实时观察和监测衍生的可能性风险。二是行业自律行动表现出较强的公益性特征和社会责任感。如《个人信息超范围采集整治治理游戏行业公约》出于健全网络个人信息保护体系、推动游戏行业运营合法化规范化等公益目的，《保护网络文学版权联合倡议书》旨在维护网络著作权、促进网络信息资源开发利用，“银龄跨越数字鸿沟”专项行动则为保障老年人数字权利、提升老年人数字素养。在国家的引导下，互联网行业组织和相关平台企业形成了以社会公益、社会责任为核心的“善治”理念和价值规范，为实现国家治理与社会责任的有效整合打下了基础。

结论与讨论

2022年的网络内容治理具有不同寻常的现实背景。尽管内外环境复杂多变，但网络内容治理的理念始终与总体国家安全观保持一致，一条包含数据要素、网络内容、平台监管、经济秩序、意识形态在内的治理链条正在形成。十九大报告中提出“加强互联网内容建设，建立网络综合治理体系，营造清朗的网络空间”，二十大报告中提出“健全网络综合治理体系，推动形成良好网络生态”，都要求网络内容治理在顶层设计、操作实践和价值观念上趋向综合治理，目标落实于“建设具有强大凝聚力和引领力的社会主义意识形态”（新华社，2022年10月25日）。

网络内容治理需要处理多样且复杂的相关关系。当前治理的层次已深入到数据、技术、经济与安全层面。不管是大数据治理中的个人信息保护，还是对移动应用程序、二维码、算法、弹窗广告、深度合成等的治理，都体现出在数据治理、技术治理层面上的深入；经济领域的治理规则同样适用于内容平台治理，尤其体现在对反对内容平台滥用市场支配性地位进行垄断的行为；对网络内容的治理也是对意识形态和国家安全的维护，跨境数据流动不仅涉及个人信息保护，还涉及国家安全与社会安全。通过对不同层次的相关关系进行的调节与分治，网络内容治理为国家复原力与可持续发展提供了支撑，其重要意义和价值也逐步上升至国家战略层面。

网络内容治理的未来依然面临诸多挑战与问题。由于网络内容层所涵盖的范围和深度逐步拓展，各种新内容形态、新行动主体以及新治理对象不断涌现。比如2022年年底已出现、在2023年年初爆火的ChatGPT，以及对元宇宙的治理等。如何对接目前数据治理、技术治理的思路与方法进行规制，还需要大量探索。尽管2022年在政府领导下的行业自律持续推进，但政府规制和行业自律双双失灵的现象仍时有发生。面对网络内容生态环境的巨变，政府与行业的关系也需要不断衔接、协调与重构。在政府引导行业组织、平台企业积极加入治理网络的同时，如何持续发挥公私合作的高效协同模式，以及如何有效发动“政—企”二元力量之外的组织、专家、用户等参与共进治理，提高系统弹性，降低治理成本，还需要大量的探索。

（ 年度网络内容治理研究课题组：《层层深入与链式共进：2022年中国网络内容治理报告》，2023年第2期，微信发布系节选，学术引用请务必参考原文）

本刊唯一投稿信箱：[e-mail]

本期专题

在这里，读懂转型中的中国新闻业

在这里，探讨新闻业的未来

在这里，进行深入而严肃的思考

在这里，关心新闻人自己的命运！

帮助

订阅《新闻记者》其实很方便——

您可以在邮局订阅，邮发代号：4-371，全年定价144元。

您也可以通过编辑部直接订阅，享受优惠价。订阅办法私信微信、微博小编，或电话[phone]。